Chịu ảnh hưởng chí hướng yêu nước của cha, ông gia nhập Việt Nam Thanh niên cách mạng đồng chí hội vào đầu năm 1927. Bất bình trước việc một người Pháp lăng mạ một nữ nhân viên Việt Nam, Sau đó, ông bỏ việc ở Sở Tài chính với mức lương 100 đồng Đông Dương, mức thu nhập đủ nuôi cả gia đình ăn no mặc ấm thời bấy giờ, dốc hết tinh lực vào hoạt động cách mạng chống lại quyền thống trị của thực dân Pháp.

Bắt đầu cuộc đời cách mạng, Nguyễn Phong Sắc đi nhiều nơi: xuống Hồng Gai, lên Lạng Sơn, xuống Ninh Bình, sang Lào... xây dựng phong trào. Nhà của ông ở làng Bạch Mai, nay là số nhà 152, Bạch Mai, Hà Nội trở thành nơi hội họp, tài sản gia đình được bán dần để chi phí cho in ấn tài liệu, nuôi cán bộ. Ngày 7 tháng 3 năm 1929, ông cùng các đồng chí của mình là Ngô Gia Tự, Nguyễn Đức Cảnh và 5 người khác trở thành một trong những người đầu tiên thành lập tổ chức Đảng ở trong nước. Ông đã bỏ tiền ra mua bàn ghế, giường tủ trang bị cho số nhà 5D Hàm Long, trụ sở của chi bộ.

Ngày 21 tháng 7 năm 1929, Hội nghị Ban Chấp hành lâm thời Đông Dương Cộng sản Đảng họp tại Bắc Ninh đã phân công Nguyễn Phong Sắc vào phụ trách khu vực Trung kỳ. Sau một thời gian ngắn, Nguyễn Phong Sắc đã tổ chức được lực lượng và cho ra đời chi bộ cộng sản đầu tiên ở thành phố Vinh, Nghệ An. Ngày 1 tháng 5 năm 1930, công nhân Nhà máy Diêm Bến Thủy đã nổi dậy; đến tháng 6 năm 1930, đình công lần thứ hai. Tháng 9 năm 1930, phong trào cách mạng lan rộng sang Hà Tĩnh, hàng loạt cuộc biểu tình liên tục nổ ra và lan rộng thành một cao trào. Đến ngày 12 tháng 9 năm 1930, cuộc nổi dậy của nông dân Hưng Nguyên đã bị đàn áp bằng máy bay ném bom làm 217 người chết. Cũng trong thời gian này, Nguyễn Phong Sắc trở thành Ủy viên Thường vụ Trung ương Đảng Cộng sản Đông Dương.

Đối phó lại, thực dân Pháp liền ra sức truy lùng những người cầm đầu của các cuộc nổi dậy và đấu tranh này. Tháng 4 năm 1931, Trần Phú bị bắt. Giữa năm 1931, thì toàn bộ Xứ ủy Trung kỳ bị bắt. Ngày 3 tháng 5 năm 1931, Nguyễn Phong Sắc đã bị bắt vì bị chỉ điểm tại Hà Nội. Không lấy được cung, mật thám Hà Nội về Bạch Mai bắt bà Trịnh Thị Cán là vợ của Nguyễn Phong Sắc. Thực dân Pháp tử hình Nguyễn Phong Sắc vào sáng ngày 25 tháng 5 năm 1931.